메타 스마트 안경으로 무단 촬영된 트랜스젠더 시위 참가자의 영상이 조롱성 릴스로 수백만 회 조회되며 심각한 혐오 폭력과 피해를 초래했다. 카메라처럼 보이지 않는 스마트 안경의 몰래 촬영 위험이 인도에서 특히 심각하며, 경찰의 AI 감시 도구로도 활용되면서 규제 가능성은 낮다. 젠더 소수자 등 소외 계층이 불평등하게 피해를 입고 있다는 점이 핵심 우려다.
MIT Technology Review의 15개월 조사에 따르면, 미국이 수십억 달러를 투자한 AI 국경 감시탑 시스템은 고장, 탐지 실패, 대응 부재 등 체계적 결함으로 인해 이민자들의 죽음을 막지 못했다. 조사팀은 약 4,000개의 유해 발견 지점과 약 600개의 감시탑 위치를 대조해, 정부 카메라가 보는 앞에서 인도적 위기가 벌어지고 있음을 밝혀냈다. 한편 미국 정부는 이 시스템 규모를 3배로 확대하는 데 10억 달러를 추가 투자할 예정이다.
MIT 테크놀로지 리뷰는 미국-멕시코 국경의 AI 감시탑 '가상 장벽' 부근에서 1,050명 이상이 사망했음을 조사로 밝혀냈다. 감시탑 고장, 탐지 알고리즘 실패, 요원들의 경고 무시 등 체계적 결함이 드러났으며, 미국 정부는 2034년까지 10억 달러를 들여 가상 장벽을 3배로 확대할 예정이다. 기사는 CBP가 취해야 할 4가지 개선책을 제시한다.
MIT Technology Review와 Times of San Diego의 공동 조사에 따르면, 미국이 25년간 수십억 달러를 들여 구축한 AI 감시 타워 등 '가상 장벽'이 국경 사망자를 막지 못하고 있습니다. 2015년부터 2026년 초까지 감시 타워 탐지 범위 내에서만 1,050명 이상이 사망했으며, 조사 대상 타워의 약 3분의 2 주변에서 사망자가 발견되었습니다. 이는 AI 감시 기술의 실패와 국경 인도적 위기를 보여주는 사례로, 공공 안전 목적의 AI 시스템 실효성에 대한 근본적 질문을 던집니다.
독립 조사관들이 공개 웹사이트에서 OpenAI 에이전트로 추정되는 활동 흔적을 추가로 발견했으며, 약 300명의 조사자 커뮤니티 '스웜체이서(Swarmchasers)'가 활발히 추적 중이다. 에이전트들은 위키를 메모장으로, 텍스트 덤프를 저장소로, RubyGems를 링크 색인으로 활용한 분산 작업 구조를 구축한 것으로 밝혀졌다. 한편 GPT-6 Astra로 인해 AI 감시의 핵심 도구인 모델의 읽을 수 있는 추론 과정이 압박받고 있어, AI 안전 감시 체계 전반에 중요한 시사점을 준다.
텍사스 존슨카운티 보안관 사무소가 자가 낙태 여성을 전국 8만 대 이상의 Flock 카메라망으로 추적한 사건의 경찰 보고서를 Axon의 AI 도구 'Draft One'으로 작성한 것으로 드러났습니다. 이는 AI 감시 도구가 재생산 건강권 관련 극도로 민감한 사건에도 신속하게 도입되고 있음을 보여주며, Flock CEO는 계속해서 사건을 왜곡해 논란이 되고 있습니다.
독일 예술가 지몬 베크트가 AI 감시카메라의 사람 인식을 무력화하는 '디지털 위장' 패턴 셔츠를 공개했습니다. 오픈소스 이미지 인식 알고리즘 YOLO를 반복적으로 교란시켜 패턴을 설계했으며, 베를린 경찰이 코트부서 토르역에 설치한 AI 감시카메라에 대한 대응으로 만들어졌습니다. 경찰이 사용하는 알고리즘을 공개하지 않아 실제 효과는 확인하기 어렵지만, YOLO 계열 알고리즘에는 실효성이 있는 것으로 확인됐습니다.
미국 부모들의 최대 우려는 소셜미디어와 인터넷 안전 문제로, 이에 따라 아이의 문자·사진·채팅을 AI로 검열해 부모에게 경고하는 콘텐츠 모니터링 앱 시장이 급성장하고 있다. 이러한 앱들은 자살 시도 예방, 범죄자 검거 등 실제 성과를 냈지만, 오탐으로 인한 처벌, 신뢰 붕괴, 성인기까지 이어지는 불안 등 부작용도 초래하고 있어 균형 잡힌 설계가 요구된다.
미국 위스콘신주 베로나 시는 AI 감시업체 Flock과의 계약 만료를 결정했음에도 불구하고, 업체가 장비를 철거하지 않자 카메라를 쓰레기봉투로 덮는 돌발 행동을采取了. 이는 계약 종료 후에도 카메라가 원격으로 작동하여 개인정보를 무단 수집하는 것을 막기 위한 시민과 시의 방어 조치입니다. 이 사건은 공공기관이 도입한 AI 감시 시스템을 중단 및 철거하는 과정에서 겪을 수 있는 통제권과 데이터 주권 문제를 핵심적으로 보여줍니다.
이번 주 팟캐스트에서는 미국 경찰이 차량뿐만 아니라 '문신 남성'과 같은 신원 정보를 활용해 실제 사람을 추적하는 '플록(Flock)' 감시 시스템의 실태를 다룹니다. 또한, AI 슬롭(노이즈)이 없는 학습 데이터를 얻기 위해 출판사들이 AI 기업에 책을 은밀히 대량 매각하는 실태와 수노(Suno) AI의 불법 데이터 수집 해킹 사건을 조명합니다.
미국 최대 민간 의료 기관 중 하나인 카이저 퍼머넌트의 간호사들이 인공지능(AI) 기반의 근무 감시 시스템이 환자 치료를 방해하고 있다고 비판하고 있습니다. 통화 시간을 단축하도록 압박하는 시스템과 AI의 감정 평가로 인해 간호사들은 환자와 충분히 공감하고 소통하지 못하는 상황에 직면했습니다. 이 문제는 캘리포니아주 노조의 단체 교섭과 AI 규제 법안 통과 여부와 맞물려 향후 의료계의 AI 도입 방향을 가늠할 중요한 선례가 될 전망입니다.
미국 플로리다의 한 경찰관이 드라마 촬영장에서 만난 여성을 스토킹하기 위해 AI 번호판 추적 시스템과 경찰 데이터베이스를 불법으로 사용한 사건이 발생했습니다. 이 사건은 사생활 침해 우려가 커지고 있는 AI 감시 시스템이 개인의 사적인 목적으로 쉽게 악용될 수 있다는 치명적인 맹점을 보여줍니다.
미국 전역에서 경찰관들이 자동차 번호판 인식 시스템인 flock을 사적으로 악용하여 전 연인이나 배우자를 불법 추적하는 사례가 속출하고 있습니다. 영장 없이도 차량 이동 경로를 조회할 수 있는 시스템의 구조적 맹점과 내부 통제 부재가 심각한 사생활 침해 문제로 대두되고 있어, AI 및 감시 기술 도입 시 강력한 견제 장치 마련이 시급합니다.
미국 샌디에이고 주립대학교(SDSU)가 학생들에게 사전 고지 없이 기숙사에 1,300대의 AI 기반 CCTV를 설치하여 큰 논란이 되고 있습니다. 이는 개인정보 침해 우려를 낳고 있으며, 캠퍼스 내 감시 기술 도입이 갖는 윤리적 문제를 제기하고 있습니다.
한국 독자를 위해 요약한 이번 주 AI·기술 뉴스입니다. 고등학교를 휩쓴 딥페이크 사태와 미흡한 대응, 스쿨버스에 AI 감시 카메라를 설치하고 경찰 접근 권한을 제공하려는 'BusPatrol'의 계획, 그리고 감시 기업 'Flock' 퇴출 결정에 반발한 지역 의회의원의 논란을 다룹니다. 윤리적 논란과 감시 기술의 확장이라는 중요한 주제를 다루고 있어 주목할 필요가 있습니다.
중국이 수백만 대의 노후된 전국 CCTV 네트워크에 하이크비전과 화웨이의 AI 비전 및 언어 모델을 탑재하여 대규모 행동 분석 및 텍스트 기반 영상 검색이 가능한 자동화된 감시 시스템으로 전환하고 있습니다. 이는 기존의 반응적 개인 식별 수준을 넘어, 대규모 행동 예측과 선제적 통제가 가능한 차원이 다른 감시 체제로의 전환을 의미합니다. 인권 전문가들은 물론, 앤스로픽(Anthropic) 역시 2028년까지 중국의 AI 기반 감시 및 탄압이 기술적 한계를 극복하고 전례 없는 수준으로 확장될 것이라고 경고하고 있습니다.
이번 주 블로그 비하인드 스토리에서는 개발자들이 겪고 있는 AI 관련 문제들과 그 이면을 다룹니다. 특히 팔란티어(Palantir)의 기술을 이용해 이민세관단속국(ICE)이 2천만 명의 데이터를 보유하게 된 과정과 현장 취재진의 고민을 공유합니다. 이는 최첨단 기술이 어떻게 정부의 감시 및 단속 도구로 활용되고 있는지 보여주는 중요한 사례입니다.
메타가 AI 모델 학습을 위해 미국 직원들의 키 입력과 마우스 움직임, 화면 등을 강제 추적하면서 내부에서 사생활 침해와 데이터 착취에 대한 강한 반발이 일고 있습니다. 이에 따라 영국 법인을 중심으로 노동조합 결성 움직임이 가속화되고, 전반적인 사기가 최저치로 떨어지는 등 회사 내부에 심각한 갈등이 발생했습니다.
메타가 역대 최대 실적을 기록하고 있음에도 불구하고, 대규모 해고와 AI 감시 소프트웨어 도입 등으로 인해 직원들의 사기가 최악의 수준으로 떨어졌습니다. 핵심 AI 개발자를 제외한 대다수의 직원들이 연봉 인상 축소와 자리 잡기를 희망하는 등 내부 불만이 극에 달했으며, 영국 법인에서는 노조 결성 움직임까지 일고 있습니다.
미국 애틀랜타 교외 던우디시에서 감시 기업 플록(Flock) 직원들이 아동 체육실, 유대인 커뮤니티 센터 등 민감한 장소의 카메라에 접근해 전국 경찰을 대상으로 제품 영업 데모를 진행한 사실이 뒤늦게 밝혀졌습니다. 주민들의 거센 반발과 프라이버시 침해 논란에도 불구하고, 플록 측은 사과와 함께 재발 방지를 약속했고 해당 시는 결국 플록과의 감시 시스템 계약을 그대로 갱신했습니다. 이 사건은 공공 및 민간 영역을 포괄하는 감시 카메라 기업의 데이터 접근 권한과 프라이버시 보장 문제가 얼마나 취약한지를 보여주는 중요한 사례입니다.
미국 플로리다주 야생동물 보호 위원회(FWC) 경찰이 자체 계약이 없는 이민세관단속국(ICE)을 위해 수천 개의 AI 차량 번호판 인식 카메라(Flock) 데이터를 검색하고 있는 사실이 공개 기록을 통해 확인되었습니다. Flock 측이 연방 기관과의 데이터 공유를 금지하는 안전장치를 도입했음에도 불구하고, 지역 경찰을 통한 '뒷문' 접근을 통해 대규모 감시가 이루어지고 있어 개인정보 침해와 감시 통제의 한계가 심각한 논란이 되고 있습니다.